Najnowsze narzędzia i aplikacje programistyczne przyspieszające działanie AI na PC i stacjach roboczych

W tym tygodniu w ramach serii AI Decoded NVIDIA udostępniła najważniejsze doniesienia z branży sztucznej inteligencji prosto z GTC, dorocznej konferencji poświęconej AI.

Chat with RTX, którego nazwa została skrócona do ChatRTX, zaprezentował uczestnikom GTC rozszerzone możliwościami oraz nowe modele LLM, które zostaną udostępnione dla 100 milionów komputerów i stacji roboczych RTX AI już w następnej aktualizacji.

ChatRTX zrozumie komunikację werbalną i odpowie tekstowo, dzięki automatycznemu systemowi rozpoznawania mowy AI o nazwie Whisper. Użytkownicy będą mogli poprosić ChatRTX o znalezienie zdjęć w ich prywatnej bibliotece za pomocą słów, terminów i wybranych fraz w zapytaniach. Znalezienie zdjęcia sprzed 20 lat będzie teraz bułką z masłem, bez konieczności przekopywania się przez folder po folderze. Dodana zostanie również obsługa większej liczby modeli LLM, w tym ChatGLM2 i Google Gemma, zapewniając użytkownikom jeszcze większą elastyczność.

Na konferencji GTC zapowiedziano także dalszy rozwój akceleracji RTX AI w aplikacjach kreatywnych od firm takich jak Blackmagic Design i Topaz Labs, a także integrację biblioteki TensorRT-LLM z popularnymi środowiskami deweloperskimi, takimi jak Jan.ai, Langchain, LlamaI-index, czy Oobabooga.

Zapowiedziano także pojawienie się mikrousługi wnioskowania NVIDIA NIM na komputerach z kartami graficznymi RTX, co pomoże programistom tworzyć jeszcze lepsze aplikacje wykorzystujące AI, a tych korzystających z RTX AI jest już ponad 500. Więcej szczegółów na temat przedstawionych pojęć można znaleźć w najnowszym wpisie na blogu AI Decoded.

Przedstawiano również trzech zwycięzców konkursu programistycznego NVIDIA Generative AI on NVIDIA RTX. Zwycięskie prace to między innymi aplikacja, która zapewnia użytkownikom Outlooka prywatną generatywną sztuczną inteligencję oraz projekt mający na celu ulepszenie interfejsu wiersza poleceń PowerShell poprzez tłumaczenie zwykłych angielskich instrukcji na komendy, które może wykonać.

źródło: informacje prasowe